Theo Bộ Văn hóa Thổ Nhĩ Kỳ, hệ thống hang động có thể ban đầu đã được người Phrygia xây dựng trong khu vực đá núi lửa mềm ở vùng Cappadocia vào thế kỷ 8-7 trước Công nguyên.[4] Khi tiếng Phrygia biến mất trong khoảng thời gian La Mã cổ đại, thay thế bằng ngôn ngữ Hy Lạp,[5][6] người dân bây giờ là các Kitô hữu đã mở rộng hang động của họ khiến cấu trúc sâu thêm nhiều cấp cùng với đó là các nhà nguyện và chữ khắc Hy Lạp.[7]

Thành phố tại Derinkuyu được hình thành hoàn chỉnh vào thời kỳ Đông La Mã, khi nó được sử dụng nhiều để bảo vệ tránh khỏi những người Hồi giáo Ả Rập trong các trận chiến tranh Ả Rập-Đông La Mã từ năm 780 đến 1180.[8] Nó cũng được kết nối với các thành phố ngầm khác thông qua nhiều kilômét đường hầm. Một số hiện vật được phát hiện trong các khu định cư dưới lòng đất này thuộc về Trung kỳ Đông La Mã, giữa thế kỷ thứ 5 và 10. Những thành phố ngầm này tiếp tục được người Thiên chúa giáo bản xứ sử dụng để bảo vệ trước những cuộc xâm lược của đội quân Mông Cổ của Timur vào thế kỷ 14.[9][10]

Sau khi khu vực này rơi vào tay của người Ottoman, các thành phố được sử dụng làm nơi ẩn náu bởi những người bản xứ trước những người cai trị Hồi giáo Thổ Nhĩ Kỳ.[11]

Vào cuối thế kỷ 20, người dân địa phương, những người Hy Lạp Cappadocia vẫn đang sử dụng các thành phố ngầm để thoát khỏi các cuộc đàn áp. Ví dụ như Richard MacGillivray Dawkins, một nhà ngôn ngữ học của Cambridge, người đã tiến hành nghiên cứu từ năm 1909 đến 1911 về những người bản địa nói tiếng Hy Lạp Cappadocia trong khu vực, đã ghi lại một sự kiện đã xảy ra vào năm 1909," Khi có tin tức về vụ thảm sát gần đây tại Adana, một lượng lớn dân cư ở Axo đã trú ẩn trong những căn hầm dưới lòng đất này, và trong một vài đêm họ đã không mạo hiểm ngủ trên mặt đất.